Yoshua Bengio
https://gyazo.com/3143864965ca9c9453e034e47be6c276
Probabilistic models of sequences: In the 1990s, Bengio combined neural networks with probabilistic models of sequences, such as hidden Markov models. These ideas were incorporated into a system used by AT&T/NCR for reading handwritten checks, were considered a pinnacle of neural network research in the 1990s, and modern deep learning speech recognition systems are extending these concepts.
DeepL.iconシーケンスの確率論的モデル1990年代、Bengioはニューラルネットワークと隠れマルコフモデルなどのシーケンスの確率的モデルを組み合わせた。これらのアイデアは、AT&T/NCRが手書きの小切手を読むために使用したシステムに取り入れられ、1990年代のニューラルネットワーク研究の最高峰とされましたが、現代の深層学習音声認識システムはこれらの概念を拡張しています。
High-dimensional word embeddings and attention: In 2000, Bengio authored the landmark paper, “A Neural Probabilistic Language Model,” that introduced high-dimension word embeddings as a representation of word meaning. Bengio’s insights had a huge and lasting impact on natural language processing tasks including language translation, question answering, and visual question answering. His group also introduced a form of Attention mechanism which led to breakthroughs in machine translation and form a key component of sequential processing with deep learning. DeepL.icon高次元単語埋め込みと注意力2000年、Bengioは「A Neural Probabilistic Language Model」という画期的な論文を執筆し、単語の意味を表現する方法として高次元の単語埋め込みを導入しました。
この論文は、言語翻訳、質問応答、視覚的質問応答などの自然言語処理タスクに多大な影響を与えた。また、彼のグループは、機械翻訳のブレークスルーにつながり、ディープラーニングによる逐次処理の重要な構成要素を形成する注意メカニズムの一形態を導入しました。
Generative adversarial networks: Since 2010, Bengio’s papers on generative deep learning, in particular the Generative Adversarial Networks (GANs) developed with Ian Goodfellow, have spawned a revolution in computer vision and computer graphics. In one fascinating application of this work, computers can actually create original images, reminiscent of the creativity that is considered a hallmark of human intelligence.
DeepL.iconジェネレーティブ・アドバーサリアル・ネットワーク2010年以来、ベンジオは生成的深層学習に関する論文、特にイアン・グッドフェローと共同開発したGenerative Adversarial Networks（GAN）を発表し、コンピュータビジョンとコンピュータグラフィックスに革命を起こしています。この研究の興味深い応用例として、コンピュータが実際にオリジナルの画像を作成できるようになり、人間の知能の特徴であると考えられている創造性を彷彿とさせるものがある。
University of Montreal Professor Yoshua Bengio was named co-recipient of the 2018 ACM A.M. Turing Award along with Geoffrey Hinton and Yann LeCun for conceptual and engineering breakthroughs that have made deep neural networks a critical component of computing. In the 1990s, Bengio combined neural networks with probabilistic models of sequences, such as hidden Markov models. These ideas were incorporated into a system used by AT&T/NCR for reading handwritten checks, were considered a pinnacle of neural network research in the 1990s, and modern deep learning speech recognition systems are extending these concepts.
Probabilistic models of sequences
DeepL.icon1990年代、ベンジオはニューラルネットワークと隠れマルコフモデルのようなシーケンスの確率的モデルを組み合わせました。これらのアイデアは、AT&T/NCRが手書きの小切手を読み取るために使用したシステムに取り入れられ、
1990年代のニューラルネットワーク研究の頂点とされ、現代のディープラーニング音声認識システムはこれらのコンセプトを拡張しています。
In 2000, Bengio authored the landmark paper, “A Neural Probabilistic Language Model,” that introduced high-dimension word embeddings as a representation of word meaning. Bengio’s insights had a huge and lasting impact on natural language processing tasks including language translation, question answering, and visual question answering. His group also introduced a form of attention mechanism which led to breakthroughs in machine translation and form a key component of sequential processing with deep learning. High-dimensional word embeddings and attention
DeepL.icon2000年、Bengioは「A Neural Probabilistic Language Model」という画期的な論文を執筆し、単語の意味を表現する方法として高次元の単語埋め込みを導入しました。ベンジオの洞察は、言語翻訳、質問応答、視覚的質問応答などの自然言語処理タスクに多大かつ永続的な影響を与えた。また、彼のグループは、機械翻訳のブレークスルーにつながり、ディープラーニングによる逐次処理の重要な構成要素を形成する注意メカニズムの一形態を導入しました。 Since 2010, Bengio’s papers on generative deep learning, in particular the Generative Adversarial Networks (GANs) developed with Ian Goodfellow, have spawned a revolution in computer vision and computer graphics. In one fascinating application of this work, computers can actually create original images, reminiscent of the creativity that is considered a hallmark of human intelligence. DeepL.icon2010年以来、ベンジオは生成的深層学習、特にイアン・グッドフェローと開発した生成的逆数ネットワーク（GAN）に関する論文を発表し、コンピュータビジョンとコンピュータグラフィックスに革命を起こしてきた。この研究の興味深い応用例として、コンピュータが実際にオリジナルの画像を作成できるようになり、人間の知能の特徴であると考えられている創造性を彷彿とさせるものがある。